การเปลี่ยนกระบวนทัศน์
เรากำลังเคลื่อนจาก "ประสิทธิภาพเหนือสิ่งอื่นใด" ไปสู่แนวคิด AI ที่มีความรับผิดชอบ (RAI) กรอบการทำงาน ในยุคใหม่นี้ ความสำเร็จทางเทคนิคขึ้นอยู่กับความเข้มแข็งทางจริยธรรมและมาตรการป้องกันความปลอดภัยอย่างเคร่งครัด
1. การหาค่าเหมาะที่สุดแบบมีเงื่อนไขบังคับ
ในอดีต เป้าหมายคือการลดฟังก์ชันความสูญเสีย $L(\theta)$ ให้ต่ำที่สุด กระบวนทัศน์ใหม่มอง AI เป็นปัญหาการหาค่าเหมาะที่สุดแบบมีเงื่อนไขบังคับ: $$\max P \text{ subject to } C_1, C_2, \dots, C_n$$ โดยที่ $C$ แทนเกณฑ์ขั้นต่ำด้านความปลอดภัยและความเป็นธรรมที่ไม่สามารถต่อรองได้
2. ช่องว่างระหว่าง "In-Vitro" กับ "In-Vivo"
โมเดลมักทำผลลัพธ์ระดับสูงสุด (SOTA) บนเกณฑ์มาตรฐานแบบสถิต (in-vitro) แต่กลับล้มเหลวอย่างร้ายแรงในสภาพแวดล้อมทางสังคมเทคนิคจริง (in-vivo) จากปฏิสัมพันธ์ที่คาดไม่ถึง
ซ้าย: ความแม่นยำ/ความเร็วสูง แต่ไม่มีความปลอดภัย/ความโปร่งใส ขวา: หกเหลี่ยมสมดุลที่แสดงถึงความปลอดภัย ความเป็นธรรม และการตีความได้
ตัวอย่าง: การซื้อขายความถี่สูง
โมเดลที่คำนึงถึงเฉพาะประสิทธิภาพถือว่าสำเร็จหากทำ ROI ได้สูงสุด แต่โมเดล RAI ถือว่าล้มเหลวหากทำ ROI ได้สูงแต่กลับกระตุ้นให้เกิด "ภาวะตลาดถล่มฉับพลัน" เนื่องจากขาดมาตรการป้องกันเสถียรภาพตลาด